Jakob Rudnik, tên đầy đủ Yakob Matveevich Rudnik (tiếng Nga: Яков Матвеевич Рудник), sinh ngày 24 tháng 3 năm 1894 (theo lịch Gregorius là ngày 5 tháng 4 năm 1894) tại Kiev, Ukraina.[3] Do hoàn cảnh gia đình quá nghèo, ông phải làm thêm kiếm sống từ năm 13 tuổi. Khi đang theo học tại Viện Kỹ thuật Petrograd thì phải bỏ dở vì toàn bộ sinh viên bị tổng động viên năm 1916. Năm 1917, ông tham gia lực lượng Bolshevik trong cuộc Cách mạng Tháng Mười Nga. Đầu năm 1918, ông trở thành thành viên của Ủy ban Đặc biệt toàn Nga (Cheka) ở Petrograd để làm việc trong quân đội. Cuối năm 1920, ông được cử đến Moskva để gia nhập tổ chức Quốc tế Cộng sản. Sau đó, ông được gửi đến hoạt động bí mật tại Pháp.[3]

Rudnik hoạt động cho lực lượng tình báo của Hồng Quân Liên Xô và Quốc tế Cộng sản tại Pháp.[4] Tháng 12 năm 1921, Phòng Nhì (Deuxième Bureau), cơ quan tình báo của quân đội Pháp, nhận được báo cáo từ Thụy Sĩ thông báo việc những điệp viên Liên Xô đang tìm cách lấy cắp thông tin về vũ khí quân đội Pháp. Tình báo Pháp đã theo dõi và bắt được Rudnik. Ông bị giam giữ tại nhà tù Poissy (gần Paris, Pháp) từ năm 1922 đến 1924 trước bị trục xuất khỏi Pháp và trở về Liên Xô.[5] Từ tháng 5 năm 1925 đến tháng 11 năm 1927, ông đến Vien (thủ đô nước Áo) và làm chủ bút cho một tờ báo khi người tiền nhiệm bị triệu hồi về Liên Xô.[3]

Sau đó, ông được Quốc tế Cộng sản cử sang Châu Á, nhằm phát triển mạng lưới hoạt động tại khu vực này. Ông hoạt động chủ yếu tại Trung Quốc và đóng vai trò quan trọng khi lãnh đạo Bộ Liên lạc Quốc tế (OMS), một tổ chức đóng vai trò cánh tay tình báo, nhu vận và thông tin liên lạc của Quốc tế Cộng sản tại vùng Viễn Đông châu Á.[6]